Sportpályafutását hatévesen kezdte az SC 1906 München iskoláscsapatában, 1959-ben igazolt a Bayern Münchenhez. Példaképe Fritz Walter, a válogatott csapatkapitánya volt, akinek vezérletével nyert a Nationalelf 1954-ben világbajnoki címet a berni stadionban, a magyar Aranycsapat legyőzésével. Profi szerződését 1964-ben írta alá, miután befejezte biztosítási ügynöki tanulmányait. Szinte egész pályafutását Münchenben töltötte, a piros mezt 1977-ben húzta utoljára magára. A következő szezonban a New York Cosmosnál játszott. 1980-ban hazatért, és a Hamburg SV színeiben megszerezte ötödik bajnoki címét, majd 1983-ban ismét New Yorkba igazolt, itt is fejezte be játékos-pályafutását.
Első Bundesliga-mérkőzését 1963-ban, a St. Pauli ellen vívta. A Bayern München csapatával háromszor (1966, 1969, 1971) volt kupagyőztes és négyszer (1969, 1972, 1973, 1974) bajnok, háromszor (1974, 1975, 1976) diadalmaskodott a BEK-ben, 1967-ben KEK-győztes lett, egy Bundesliga-bajnoki címet a Hamburger SV játékosaként szerzett.
1965-ben mutatkozott be az NSZK válogatottjában, és egy év múlva már világbajnoki ezüstérmet szerzett Angliában, 1970-ben Mexikóban bronzérmes volt. Játékos pályafutásának csúcsára 1974-ben ért fel, amikor a Nationalelf csapatkapitányaként hazai pályán szerzett világbajnoki címet. Az 1972-es Európa-bajnokságon a német csapattal aranyérmet, négy évvel később ezüstérmet szerzett. 103 válogatott mérkőzésen lépett pályára, és söprögetőként szerzett 14 gólt. A korszak szinte minden nagy játékosával játszott együtt, Pelével a Cosmosban, a világválogatottban a holland Johan Cruyff-fal.
Pályáját csatárként kezdte, a védekezésben és a támadásban létszámfölényt kiharcoló, háttérből irányító középhátvédként folytatta, lényegében az ő nevéhez fűződik a támadást is segítő söprögető (libero) fogalma. A Császár becenevet, higgadt, sportszerű, technikai és taktikai szempontból egyaránt fölényes játékával érdemelte ki. Ritkán szabálytalankodott, kiemelkedő labdabiztonság és elegancia jellemezte.
Játékos-pályafutásának befejezése után, 1984-ben úgy vette át - Jupp Derwall utódaként - az NSZK válogatottjának irányítását, hogy semmiféle edzői képesítéssel nem rendelkezett. A csapat irányítása alatt 1986-ban a mexikói vb-n ezüstérmet, majd négy évvel később Olaszországban - a döntőben a Maradona vezérelte Argentínát legyőzve - világbajnoki címet szerzett. Ezzel - a brazil Mario Zagallo mellett - ő lett a világon a második, aki játékosként és edzőként is világbajnok lett. Később elmondta: ez a diadal fontosabb volt számára, mint az 1974-es NSZK-beli győzelem, mert ezt edzőként élte meg, ami sokkal kellemesebb emlék.
1990-ben négy hónapig a francia Olympique Marseille-nél volt technikai igazgató, majd visszatért a Bayernhez. 1994 elején ő vette át a Bundesligában bukdácsoló csapat szakmai vezetését, és a szezon végén bajnoki címet ünnepelhetett, a kispadra egy hónapig 1996-ban is leült. 1994-től 2009-ig volt a klub elnöke, ezalatt a bajorok nyolcszor lettek bajnokok, hatszor nyerték meg a Német Kupát, s egy-egy Bajnokok Ligája-, UEFA Kupa- és Interkontinentális Kupa-sikert is elkönyvelhettek. A Császár 2009-től a klub tiszteletbeli elnöke.
1998-ban lett a Német Labdarúgó Szövetség alelnöke, a 2006-os világbajnokság szervezőbizottságának elnökeként nagy szerepe volt abban, hogy Németország labdarúgó-világbajnokságot rendezhetett. A Nemzetközi Labdarúgó Szövetség (FIFA) végrehajtó bizottságának tagja, az Európai Labdarúgó Szövetség (UEFA) technikai bizottságának vezetője is volt.
A játékosként és edzőként is mindent elért sportember minden idők legnépszerűbb labdarúgója hazájában, aki számtalan kitűntetésben részesült. Az NSZK-ban négyszer választották az év labdarúgójává (1966, 1968, 1974, 1976), kétszer nyerte el a France Football aranylabdáját (1972, 1976), többször játszott a világválogatottban. 1998-ban az évszázad német labdarúgója lett, bekerült az évszázad szakírók által összeállított válogatottjába, 2002-ben az addigi világbajnokságok álomcsapatába, 2004-ben a száz legnagyobb élő futballista közé is beválasztották.
"A Császár" kiváló üzleti érzékkel is rendelkezik. Népszerűségére építve rengeteg pénzt keresett reklámmal, még hanglemezt is kiadott, tv-műsort vezetett. Ő volt az első játékos, aki saját menedzserrel rendelkezett, és az első német focista, akinek a lábára biztosítást kötöttek. Bőkezűen adakozik jótékonysági célokra a Franz Beckenbauer Alapítvány révén. Számos német televízió szakkommentátora, és állandó rovatot vezet a Bild című napilapban.